Trước đây, Kim Thạch là một xã thuộc thị xã Hà Giang (nay là thành phố Hà Giang).

Ngày 20 tháng 8 năm 1999, Chính phủ ban hành Nghị định 74/1999/NĐ-CP[3] về việc thành lập xã Kim Linh trên cơ sở 3.590 ha diện tích tự nhiên và 2.064 nhân khẩu của xã Kim Thạch.

Sau khi điều chỉnh địa giới hành chính, xã Kim Thạch có 3.050 ha diện tích tự nhiên và 2.036 nhân khẩu.

Ngày 23 tháng 6 năm 2006, Chính phủ ban hành Nghị định 64/2006/NĐ-CP[4] về việc điều chỉnh toàn bộ 3.050 ha diện tích tự nhiên và 2.353 nhân khẩu của xã Kim Thạch thuộc thị xã Hà Giang (nay là thành phố Hà Giang) về huyện Vị Xuyên quản lý.